Nguyên tên Nôm xưa của xã là làng Chàng, được cho là bắt nguồn từ tên một dụng cụ làm mộc cổ là đục Chàng Chảy. Về sau, làng được gọi theo âm Hán Việt là Chàng Thôn, rồi biến âm thành Chàng Sơn như ngày nay.

Thời điểm thành lập làng Chàng chưa được xác định chính thức vì chưa tìm được tài liệu lịch sử nào ghi chép lại. Hiện tại, có hai giả thuyết khác nhau về thời điểm thành lập làng.

Giả thuyết thứ nhất

Thuyết này cho rằng làng Chàng được thành lập từ thời kỳ Hùng Vương, căn cứ vào truyền thuyết về một người thợ mộc tên là Sần (Phó Sần) ở làng Chàng xưa từng dẫn một đoàn thợ mộc lên núi Ba Vì để làm đền, đài cho thánh Tản Viên là con rể của vua Hùng Vương thứ 18 (tức Hùng Duệ Vương). Theo thuyết này thì làng Chàng đã có từ cách nay khoảng 2.300-2.500 năm. Câu chuyện cụ Phó Sần từng được nhà văn Nguyễn Tuân đề cập trong tác phẩm "Vang bóng một thời".

Giả thuyết thứ hai

Thuyết này dựa trên thuyết thứ nhất để nêu thành luận điểm: Một tụ điểm dân cư sinh sống và phát triển đến mức đã có một nghề thợ mộc như vậy thì tụ điểm dân cư đó không phải là mới thành lập vào thời kỳ Hùng Vương được mà phải là phải được thành lập trước đó hàng nghìn năm, nghĩa là từ thời kỳ Văn Lang - Âu Lạc hay chí ít cũng là vào thời kỳ đầu dựng nước Văn Lang.[cần dẫn nguồn]

Tuy vậy, như đã nêu ở trên, đấy chỉ là những giả thuyết. Mặc dù vậy, các học giả đều thống nhất xã Chàng Sơn là một trong những xã của huyện Thạch Thất có nền văn hiến từ xa xưa.[cần dẫn nguồn]